"What Now" là một bản pop-ballad với tiếng piano cùng tiết tấu trung bình; bài hát có độ dài 4:03.[10][11][12] Theo Sony/ATV Music Publishing, bài hát được viết bằng khóa G♯ với một nhịp điệu trung bình-chậm là 60 nhịp một phút (BPM). Giọng hát của Rihanna nằm trong khoảng từ nốt A♯3 đến nốt C♯5, và kéo theo đó một dãy âm G♯m—B2—F♯—F♯sus4—F♯. Trong bài hát còn có thêm giai điệu của tiếng trống mạnh mẽ. Dean Martin của NME đã miêu tả bài hát như một cuộc hôn nhân điên loạn của piano và bass.[11] Theo Mesfin Fekadu của The Huffington Post thì "bài hát được xây dựng một cách độc đáo từ những câu hát êm dịu đến đoạn điệp khúc như điện giật".[13]

Smokey D. Fountaine của tờ The Urban Daily đã so sánh "What Now" với các tác phẩm của nữ ca sĩ Pink và theo ông thì bài hát có được một đoạn điệp khúc đầy phong cách ("yell-as-long-as-you-have-a-great-hook style").[14] Theo Michael Gallucci của PopCrush thì cấu trúc của bài hát nổi bật từ phần đầu đến phần điệp khúc "giống như chúng đến từ hai hành tinh khác nhau vậy". Gallucci cũng cảm thấy rằng Rihanna đã hát hết những gì cô ấy có thể với bài hát này, trái ngược với những cảm nhận của Chris Younie đến từ 4Music khi cho rằng giọng hát của Rihanna thật "ngọt ngào".[10][15] Trong phần điệp khúc âm vang, mạnh mẽ thì âm thanh như một "quả bom".[10][15]